热门标签 | HotTags
当前位置:  开发笔记 > 编程语言 > 正文

都会|水位_阿里云肖文鹏:边缘云创新场景探索与实践

篇首语:本文由编程笔记#小编为大家整理,主要介绍了阿里云肖文鹏:边缘云创新场景探索与实践相关的知识,希望对你有一定的参考价值。在9月16日下午召开的边缘云论坛上

篇首语:本文由编程笔记#小编为大家整理,主要介绍了阿里云 肖文鹏:边缘云创新场景探索与实践相关的知识,希望对你有一定的参考价值。


在9月16日下午召开的边缘云论坛上,阿里云高级技术专家 肖文鹏发表了题为《边缘云创新场景探索与实践》的精彩演讲。

中心+边缘的新型云计算架构体系

肖文鹏首先介绍了中心+边缘的新型云计算架构体系,目前阿里云有20多个数据中心,即传统的中心云,这些中心具有较大的单点规模,并且拥有较强的计算以及存储能力,但是距离终端较远。

相较于中心云,边缘节点单点规模较小,能承载的计算以及存储规模有限。但正是由于这一特性,使得边缘节点能够更加灵活快速的铺开,目前阿里云已经拥有超过2800个边缘节点。这些节点遍布全球各地以及不同运营商,并且距离终端用户更近。

中心和边缘一起,面向各类应用以及产业互联网场景,提供一体化的解决方案。

在5G时代下,视频和图片因其强大的信息承载力,已经成为数据内容的主要载体和信息传播的主要方式,根据爱立信最新报告显示,76%的网络数据为视频和图片,也就是视图。而5G的大带宽、低时延、广连接的特性激活了视频监控、云游戏、物联网等场景应用,从消费互联网到产业互联网的延伸,更加促进了终端应用和视图数据的爆发。

这些终端和数据具有位置分散、规模大、以及价值密度相对较低等特点。以摄像头为例,IHS的研究指出,目前全球有10亿个监控摄像头在持续的产生视图数据。这个数据量是ZB级,但其中绝大部分数据价值较低,我们更需要留存其中的关键片段以及其结构化信息,这样的场景和需求对计算和存储的方式带来了严峻挑战和根本性变化。

基于边缘的新一代接入、计算以及存储的分布式系统架构有效的解决了这样的问题。它能够将80%以上的流量、计算以及数据收敛到本地,显著的降低网络传输以及存储成本、提升计算效率,同时带来超低延迟的体验。

在这样的云计算体系之上构建业务系统,其核心在于网、算、管、存四部分。

肖文鹏以城市大脑为例进行了讲解,他说,终端设备如摄像头分布在全国各地,位置相对分散且流量分布不均。一些重计算如切片录制、实时AI分析等需要回云后在中心完成。同时由于数据规模之大,对于终端设备管理、视图内容的检索等,带来很大的挑战。最后,由于海量的数据需要回云,对成本、时延等等,都带来很大的问题。

回到核心,如何提供一张就近、位置无感的接入、计算和存储网络,成为了视图上云的首要任务。同时,由于不同业务需求以及资源的异构,比如CPU、GPU、ARM阵列等,需要我们有按需的弹性计算能力,并且需要和接入网紧密结合。其次,面对海量的终端设备以及视图数据,云边一体的视图管理以及安全的云边通道,是数据流转的关键。最后,由于视图数据价值密度的差异,我们需要将大部分数据在边缘进行卸载,同时经过计算,将高价值以及序列化数据回云,其核心,就是解决如何存的问题。

边缘云创新场景-视图计算

综合对上述问题的思考,边缘创新团队基于阿里云广覆盖的ENS底座,孵化出视图计算平台。它主要面向视图以及终端上云场景,如直点播、安防监控、城市大脑、云游戏等,提供了位置无感的链接、计算以及周期性存储服务。

视图计算从基础设施开始,通过资源纳管、虚拟化以及资源切片,将资源进行分池,并且提供多租隔离的能力。同时利用网、算、存一体化的调度,屏蔽底层异构的资源以及物理位置,根据业务特性、终端位置和资源状态,进行协同调度,在保障业务低延时、高可用的同时,实现业务对计算、存储和连接的位置无感。

应用场景较为广泛,比如在安防、交通物流等摄像头上云场景,设备/流媒体接入和处理会综合考虑节点算力、网络带宽和存储容量等状态,就近选取最匹配的节点,节点位置更靠近内容的生产端,也就是视图终端。而云游戏等场景,需要特定的渲染计算资源(如ARM板卡),同时也更靠近内容的消费端(手机端),当需要多人观战直播时,又可以推流到CDN网络进行分发和异地观看。

视图计算云-边-端协同架构

肖文鹏表示,云、边、端一体化的协同架构是视图计算的核心,也是未来边缘计算的发展趋势。

终端设备负责视图内容的生产、采集以及上传,同时一些瘦终端也会负责视图的解码和播放。

视图计算基于广覆盖的边缘节点构建了分布式接入网关,能够与视图终端快速构建安全、低延迟的双向通道,实现了多样化的终端上云能力。同时也支持视频以及图片的快速上传。这些视图内容会在边缘就近进行周期性存储。同时也会与计算联动,在同节点或者临近节点内进行计算,如录制切片、AI处理等。计算的结果如AI序列化数据、有效视频片段等,通过云边安全、可靠的回云通道,实现快速回云。节点资源也会根据水位进行弹性伸缩,同时节点间也会进行协同和灾备。

视图计算会在中心进行统一的节点以及视图管理,同时进行一体化的服务编排以及Meta汇聚。视图终端会在中心映射为一个影子设备,对影子设备的操作,都会通过信令通道快速的下发到终端执行并得到反馈。
通过云、边、端的协同,用户不需要再关心云的具体位置,从而实现只有一个交互面,给用户一朵云的体验。

位置无感的多点协同计算

在计算方面,视图计算经过多样化的场景积累和打磨,提供了三种典型的计算能力。

第一种是基础计算,主要面向直点播场景,它包含转码、录制、截图等。通过对编码器的优化,在相同画质下尽可能降低码率,实现窄带高清。同等画质可节省20%-40%的带宽以及存储空间。

第二种是视图AI计算。结合达摩院在视觉算法上积累,视图计算提供各种场景化、结构化的AI分析能力,如移动侦测、人脸识别、事件监测等。

第三种是自定义计算。视图计算打破自身计算边界,允许用户自主上传算子进行托管,用户可根据自身业务按需申请算力,极大降低业务接入成本。

这些计算最大的特征是算随网动。计算随着数据的流动而展开,在每个流转节点进行数据卸载和分流计算,避免全量数据回云,实现中心算力的下沉以及终端算力的上移。同时,由于计算节点更靠近终端,在计算时延、响应速度等方面,都会有大幅提升。另外也避免的大量数据的回云,比如互联网直播场景,对于80%无人或者极少人观看的冷流,可以在边缘直接收敛,从而极大降低回云带宽。

可自定义的场景计算

在很多场景下,用户可能已经拥有了自己的算子或者应用,这些可能是自研,也可能来自第三方。视图计算提供了可自定义的场景计算能力,用户可将算子托管到视图计算。

肖文鹏以云游戏为例讲解道,游戏包就是一种算子或应用。游戏厂商上传游戏包后,会在云端发起算子托管的流程,视图计算会内部对应用进行审核并加入应用市场。

下一步配置好渲染规格后,云端会进行兼容性适配,同时进行算力评估来计算所需的资源。

接下来会进行算子的编排以及部署,这时候,用户无需关心计算资源的生产和管控,视图计算会实现资源的弹性伸缩和多维度的负载均衡,并且保证就近接入。其中为了资源复用率的提升,视图计算也会尽可能的将不同计算进行混跑。

当游戏开始运行的时候,我们也会实时的对任务进行画像分析,动态校准资源消耗。比如游戏的接入人数、不同的分辨率、码率和输出规格等,都会一定程度上影响实际的资源消耗,整体的算力是动态上下浮动的,实时的动态分析和校准,可以保证调度的精准度,最终带来良好的游戏体感。

这种托管的模式,使终端不再需要具备复杂的计算能力,只需要简单的播放,即可享受超强的体验。对于云厂商来说能够非常好的实现资源复用。同时对于客户来说,可以更加灵活、敏捷的进行部署和迭代,并且有效降低成本。

位置无感分布式协同存储

视图计算的另一个核心,是解决海量视图数据的存储问题。刚刚我们说到,终端上云往往具有位置分散、数据规模大、值密度极低的特点,同时还有一点就是带宽反转,上行带宽远大于下行。长期的回云会造成较大的带宽压力以及存储成本,同时最重要的一点,无法保证就近、低延迟。

视图计算提供了位置无感的分布式协同存储。全球各地的数据源都可以通过视图计算在边缘节点就近存取,存储的位置也会参考数据接入和计算的位置,确保整体亲和性。

同时,视图计算通过边缘加速网络解决了跨地域、跨运营商上传延迟大、速度慢等问题,实现了回云的中转加速,提供了高可靠的回云通路。

依靠新的协同存储,我们可以将终端产生的大量视图数据周期性的存储在边缘,比较典型的如摄像头的周期录像。同时依靠与计算相结合,我们可以将我们所关心的关键视频片段以及AI分析等序列化的结果进行回云,并长期保存。

分布式协同存储平台

在整体架构上,通过边缘统一网关进行异构资源的适配,不管是从API、SDK还是授权体系,完全兼容现有的使用方式,这对于海量的存量设备来说,只需要简单配置,便可以快速将视图数据上传到协同存储,从而确保给用户云边一体化的使用体验,并且整体传输速度提升40%以上。

基于多点协同调度的能力,它实现了视图数据的就近存取,并且复用CDN场景下闲置的上行带宽,从而最大限度的利用带宽资源。同时它可以快速的根据单点水位进行资源动态规划以及数据复制和迁移,实现服务的高可用和数据的高可靠,整个过程用户无感知。

同时阿里云搭建了可靠、安全的数据回云通路,可以按需在闲时将数据中转回云,从而实现数据的分级管理,用户可以灵活调整数据价值和成本之间的平衡点。

视图上云一站式PAAS服务

视图计算提供了视图上云的一站式PAAS服务,包括视图数据的采集、计算、存储以及内容消费。接下来我们将重点放到视图终端的链接部分。

肖文鹏表示,链接的重心主要在于以下两点:
第一,设备的接入和管控。如设备的录入、认证、事件采集等。同时也包含一些如语音对讲、PTZ云台、摄像头机位控制等操作。
第二,视图数据的接入和管理。如流媒体的接入、协议转换、视图上传以及内容检索等。

链接是视图上云的第一环,结合前面已经介绍过的位置无感的计算平台以及分布式协同存储,共同构成了视图上云的一整套网、算、管、存体系。链接的易用性、安全性、可靠性等因素很大程度上决定了视图上云的规模。

终端一键上云,引领行业从封闭走向开放
终端设备以及上云标的准具有多样化的特性。以安防监控领域为例,就包含国标28181、ONVIF等多种协议,同时很多设备厂商均创建了自己的私有协议,且协议相对各自封闭,这使得视图上云增加了很大的适配难度,并且安全性、兼容性无法得到保障。

为了让视图终端更加便捷的一键上云,视图计算推出了两个安全、可靠的上云通道,即信令传输通道和数据传输通道。信令通道用于实现云与终端设备的信令控制和双向通讯。数据通道用于流媒体等视图内容的接入与消费。

同时我们也推出了开放设备上云协议ODCAP。它拥有多样化的视图终端适配性,支持主流信令传输如websocket、mqtt等。同时在数据传输上,支持rtmp、HLS、webrtc等流媒体传输协议。任何支持这类协议的终端,均可快速的使用开放协议一键上云。同时我们提供了透明的双向通道,厂商和开发者也可按需自定义扩展。

在安全性以及兼容性上,我们也做了一系列增强,保证了一键上云的开放性、易用性、安全性和灵活性。通过一键上云体系,我们希望能够将之前无法上云的内容快速上云,引领这些行业从封闭走向开放。

肖文鹏在研究最后表示,目前,视图计算已经在多样化的场景下落地,持续为客户提供优质、可靠的云服务。在未来,希望能够和更多的行业伙伴一起持续探索,推动整个边缘云行业的快速发展,为客户创造更大的价值!


推荐阅读
  • 一、Hadoop来历Hadoop的思想来源于Google在做搜索引擎的时候出现一个很大的问题就是这么多网页我如何才能以最快的速度来搜索到,由于这个问题Google发明 ... [详细]
  • [译]技术公司十年经验的职场生涯回顾
    本文是一位在技术公司工作十年的职场人士对自己职业生涯的总结回顾。她的职业规划与众不同,令人深思又有趣。其中涉及到的内容有机器学习、创新创业以及引用了女性主义者在TED演讲中的部分讲义。文章表达了对职业生涯的愿望和希望,认为人类有能力不断改善自己。 ... [详细]
  • Oracle优化新常态的五大禁止及其性能隐患
    本文介绍了Oracle优化新常态中的五大禁止措施,包括禁止外键、禁止视图、禁止触发器、禁止存储过程和禁止JOB,并分析了这些禁止措施可能带来的性能隐患。文章还讨论了这些禁止措施在C/S架构和B/S架构中的不同应用情况,并提出了解决方案。 ... [详细]
  • 背景应用安全领域,各类攻击长久以来都危害着互联网上的应用,在web应用安全风险中,各类注入、跨站等攻击仍然占据着较前的位置。WAF(Web应用防火墙)正是为防御和阻断这类攻击而存在 ... [详细]
  • [翻译]微服务设计模式5. 服务发现服务端服务发现
    服务之间需要互相调用,在单体架构中,服务之间的互相调用直接通过编程语言层面的方法调用就搞定了。在传统的分布式应用的部署中,服务地 ... [详细]
  • 2018年人工智能大数据的爆发,学Java还是Python?
    本文介绍了2018年人工智能大数据的爆发以及学习Java和Python的相关知识。在人工智能和大数据时代,Java和Python这两门编程语言都很优秀且火爆。选择学习哪门语言要根据个人兴趣爱好来决定。Python是一门拥有简洁语法的高级编程语言,容易上手。其特色之一是强制使用空白符作为语句缩进,使得新手可以快速上手。目前,Python在人工智能领域有着广泛的应用。如果对Java、Python或大数据感兴趣,欢迎加入qq群458345782。 ... [详细]
  • t-io 2.0.0发布-法网天眼第一版的回顾和更新说明
    本文回顾了t-io 1.x版本的工程结构和性能数据,并介绍了t-io在码云上的成绩和用户反馈。同时,还提到了@openSeLi同学发布的t-io 30W长连接并发压力测试报告。最后,详细介绍了t-io 2.0.0版本的更新内容,包括更简洁的使用方式和内置的httpsession功能。 ... [详细]
  • 基于事件驱动的并发编程及其消息通信机制的同步与异步、阻塞与非阻塞、IO模型的分类
    本文介绍了基于事件驱动的并发编程中的消息通信机制,包括同步和异步的概念及其区别,阻塞和非阻塞的状态,以及IO模型的分类。同步阻塞IO、同步非阻塞IO、异步阻塞IO和异步非阻塞IO等不同的IO模型被详细解释。这些概念和模型对于理解并发编程中的消息通信和IO操作具有重要意义。 ... [详细]
  • 云原生应用最佳开发实践之十二原则(12factor)
    目录简介一、基准代码二、依赖三、配置四、后端配置五、构建、发布、运行六、进程七、端口绑定八、并发九、易处理十、开发与线上环境等价十一、日志十二、进程管理当 ... [详细]
  • ejava,刘聪dejava
    本文目录一览:1、什么是Java?2、java ... [详细]
  • “您可以从三个选项中(快速、便宜或好)选择两个”提出这个问题的人可能不是可观测性工程师。但也可能是,在可观测性方面,决定您 ... [详细]
  • 熟练掌握Spring Cloud,终于成为Java工程师的面试门槛 ... [详细]
  • Android图形架构学习笔记(待修改)
    以下简单总结来自Android官网,稍作总结:https:source.android.google.cndevicesgraphics概览Andr ... [详细]
  • 服务网关与流量网关
    一、为什么需要服务网关1、什么是服务网关传统的单体架构中只需要开放一个服务给客户端调用,但是微服务架构中是将一个系统拆分成多个微服务,如果没有网关& ... [详细]
  • 在单位的一台4cpu的服务器上部署了esxserver,挂载了6个虚拟机,目前运行正常。在安装部署过程中,得到了cnvz.net论坛精华区 ... [详细]
author-avatar
ppqq21
这个家伙很懒,什么也没留下!
PHP1.CN | 中国最专业的PHP中文社区 | DevBox开发工具箱 | json解析格式化 |PHP资讯 | PHP教程 | 数据库技术 | 服务器技术 | 前端开发技术 | PHP框架 | 开发工具 | 在线工具
Copyright © 1998 - 2020 PHP1.CN. All Rights Reserved | 京公网安备 11010802041100号 | 京ICP备19059560号-4 | PHP1.CN 第一PHP社区 版权所有